Trong suốt thế kỷ XVIII, rất nhiều sự kiện thể thao quy mô nhỏ trên khắp châu Âu đã được định danh sau kỳ Đại hội Olympic cổ đại. Coubertin đề xuất một ý tưởng khôi phục lại sự kiện thể thao này nhưng dưới hình thức đa quốc gia và đa sự kiện thi đấu. Đại hội Olympic cổ đại dù cũng có ý nghĩa quốc tế vì các thành bang và thuộc địa của Hy Lạp đều tham dự, nhưng chỉ có những vận động viên nam dòng dõi Hy Lạp mới có quyền thi đấu[4]. Năm 1890, Coubertin viết một bài báo đăng tại tạp chí La Revue Athletique với nội dung tán dương tầm quan trọng của Much Wenlock, một thị trấn thương mại ở hạt Shropshire của nước Anh. Tại đây, vào năm 1850, nhà vật lý địa phương William Penny Brookes đã thành lập Thế vận hội Wenlock, một sự kiện thể thao và tiêu khiển trong đó bao gồm điền kinh và một số môn thể thao đồng đội như cricket, bóng đá và ném vòng[5]. Coubertin cũng nắm bắt ý tưởng từ những sự kiện thể thao tổ chức tại Hy Lap bởi thương gia Evangelos Zappas[6].

Ngày 18 tháng 6 năm 1894, Coubertin tổ chức một hội nghị tại Sorbonne, Paris để giới thiệu ý tưởng của ông tới những đại diện của các đoàn thể đến từ 11 quốc gia. Theo sau việc đề xuất này được chấp thuận, hội nghị bắt đầu định thời điểm để tổ chức kỳ Thế vận hội hiện đại đầu tiên. Coubertin gợi ý rằng Thế vận hội nên được tổ chức đồng thời với hội chợ triển lãm thế giới năm 1900 tại Paris. Tuy nhiên do lo ngại rằng 6 năm là một khoảng thời gian quá dài và có thể làm mất đi sự hứng thú của công chúng, các thành viên của hội nghị đã đi đến quyết định chọn năm 1896 làm thời điểm tổ chức kỳ Thế vận hội mở đầu. Sau khi ấn định thời gian, hội nghị hướng sự chú ý tới việc chọn một thành phố đăng cai tổ chức Thế vận hội. Việc tại sao Athens của Hy Lạp được chọn làm chủ nhà vẫn còn là điều bí ẩn. Năm sau đó, cả Coubertin và Demetrius Vikelas đưa ra những cuốn hồi ký về quá trình chọn lựa nhưng trái với những gì diễn ra trong những phút chính thức của hội nghị. Rất nhiều tài liệu cho rằng một số đại biểu đã đề xuất tổ chức Thế vận hội tại London nhưng không được Coubertin đồng ý. Sau một cuộc hội ý ngắn gọn với Vikelas, người đã giới thiệu Hy Lạp, Coubertin đã đề cử Athens. Vikelas chính thức đưa kế hoạch này vào ngày 23 tháng 6, và do Hy Lạp là cái nôi của Olympic nên đã được các đại biểu chấp thuận. Vikelas sau đó đã được bầu làm chủ tịch đầu tiên của Ủy ban Olympic quốc tế[8].